高维计算（HDC）是用于数据表示和学习的范式，起源于计算神经科学。HDC将数据表示为高维，低精度向量，可用于学习或召回等各种信息处理任务。高维空间的映射是HDC中的一个基本问题，现有方法在输入数据本身是高维时会遇到可伸缩性问题。在这项工作中，我们探索了一个基于哈希的流媒体编码技术。我们正式表明，这些方法在学习应用程序的性能方面具有可比的保证，同时比现有替代方案更有效。我们在一个流行的高维分类问题上对这些结果进行了实验验证，并表明我们的方法很容易扩展到非常大的数据集。
translated by 谷歌翻译
无监督的终身学习是指随着时间的流逝学习的能力，同时在没有监督的情况下记住以前的模式。以前的作品假设了有关传入数据（例如，了解类边界）的强大先验知识，这些数据是在复杂且不可预测的环境中无法获得的。在本文中，以现实世界情景的启发，我们通过类外的流媒体数据正式定义了在线无监督的终身学习问题，该数据是非IID和单次通道。由于缺乏标签和先验知识，该问题比现有的终身学习问题更具挑战性。为了解决这个问题，我们提出了自我监督的对比终身学习（比例），该学习提取并记住了知识。规模围绕三个主要组成部分进行设计：伪监督的对比损失，自我监督的遗忘损失以及统一子集选择的在线记忆更新。这三个组件旨在协作以最大程度地提高学习表现。我们的损失功能利用成对相似性，因此消除了对监督或先验知识的依赖。我们在IID和四个非IID数据流下进行了全面的规模实验。在所有设置上，缩放量优于最佳最新算法，在CIFAR-10，CIFAR-100和Subimagenet数据集上，提高了高达6.43％，5.23％和5.86％的KNN精度。
translated by 谷歌翻译